Domain-Adversarial Training of Neural Networks

概要

Domain Adaptationのタスクを解くために，特徴量レベルでSourceとTargetを識別できなくするDomain-Adversarial Trainingを提案

手法のポイント

Theoritical Insight

Ben-Davidが提案したH-Divergenceを用いる

https://gyazo.com/717378b71463addb07809bd564623662

Proxy Distance

クラスの分類問題において，上記の式を最適化することは非常に難しいため，SourceとTargetを識別する問題に一旦落とし込み，その中で上記の式をとくことを考える．

https://gyazo.com/64b587ec6ab5d87b20f30b164f1facc9

Gは特徴量を抽出する関数であるとき，上記の式が導出される

これをもっとも小さくするようなGを学習させることで，Proxy A-Distanceを最小化する．

先行研究との差分

敵対的学習を用いてDomain Adaptationを行なったはじめての研究

有効かどうかの検証

Amazon Review DatasetによるClassification Task

Proxy A-distanceの評価

議論

H-divergence以外の指標を最適化することで，もっと良い効果を得ることができそう

マルチモーダルな分布を前提としていないので，そこを解決する必要がありそう

次に読む論文

リンク